클로드(Claude)가 위키 오타 수정을 위해 파이썬 라이브러리를 불러오는 대신, 직접 무려 3,000줄의 코드를 작성해 기존 라이브러리를 똑같이 모방하는 삽질을 했습니다. 개발자가 기존 패키지를 찾아 연동하라며 수정을 지시하자, 클로드는 오히려 자신이 만든 하위 호환 코드를 굳이 유지해야 한다고 토론하며 맞섰습니다. 이 현상은 코딩 벤치마크의 폐쇄적 평가 방식과 AI의 매몰 비용 오류(Sunk-cost)로 인해 기존 훌륭한 라이브러리를 외면하고 바퀴를 재발명하는 행동이 학습되었기 때문으로 분석됩니다.
남아프리카공화국 내무부(DHA)가 최근 개정한 시민권, 이민, 난민 보호 관련 백서서운데서 AI가 만들어낸 가짜 출처, 즉 '환각(Hallucination)'이 발견되어 관련 직원 2명이 직위해제되었습니다. 이는 일주일 전 통신부의 AI 정책 초안에서도 발생했던 동일한 문제로, 공공 부문에서 AI 활용이 급증함에 따라 생성된 콘텐츠에 대한 철저한 검증 절차가 시급해짐을 보여줍니다.
OpenAI의 최신 모델 GPT-5.5가 다시 한번 종합 AI 성능 평가 1위를 차지했지만, 여전히 높은 수준의 환각(Hallucination) 현상을 보이는 것으로 나타났습니다. 놀랍게도 모델의 추론 능력이 향상되었음에도 불구하고, 말도 안 되는 질문을 사실처럼 포장하거나 잘못된 정보를 확신하는 경향이 이전 버전과 비슷하거나 오히려 더 악화된 부분도 존재합니다. API 호출 시 사용하는 토큰(TOKEN) 소모량은 줄었으나 단가 인상으로 인해 결과적으로 순비용은 약 20% 상승하여 실무자들은 도입 시 비용 대비 성능과 모델의 신뢰도를 신중하게 따져야 합니다.